druid나 kudu로는 느리거나 뭐가 안 돼서 gpu - cuda로 대체품을 쪼물쪼물 만들었는데 다른데 자랑해봐야 뭔 소린지 이해하는 사람도 별로 없고 자랑할 곳이 없으니 일단 여기다 자랑을 하고,
GPU 프로그래밍으로 연산기를 대체하면 문제는 가용성이다. 성능은 좋은데 동접 사용자가 많을 경우 문제가 된다. 예를 들어 엑셀에 슈퍼 통계 기능 같은게 들어있고 이것을 클라우드에서 쓰는 상황이다. 백엔드에 GPU 머신은 비싸니까 몇 대 없다. 연산 S/W를 잘 짰기 때문에 응답은 드릅게 빠른데 문제는 머신의 리소스를 풀로 땡겨쓴다. 즉, 동접 사용자는 간발의 차로 앞 사용자의 연산이 끝날 때 까지 기다려야 한다. 연산 응답이 1초라고 치자. WAS 같은 경우 응답이 1초라도 CPU를 1%만 쓴다면 대충 퉁쳐서 100명의 동접처리가 가능하다. GPU 연산기의 사례를 보자. 응답이 1초다. 그런데 GPU를 100% 쓴다. 동접이 100명이면 100번째 접속자는 100초를 기다려야 한다. 즉 연산기가 쓰는 리소스를 낮춰서라도 동접을 고려하여 GPU 가용률 컨트롤을 해야 한다는 거..